引言

人机对话与生俱来的自然性和便捷性，使其作为一种与计算机交流的新型方式，被认为是继鼠标、键盘、触控之后，未来的一大交互范式。随着人工智能的发展，人机对话的重要性越来越凸显。起源于1950年的图灵测试，衡量的是计算机程序智能水平的测试框架，其最初的设计方式就是以人机对话方式开展的。

人机对话也是最具挑战性的人工智能任务之一，得到了学术界的持续关注。工业界对人机对话可能产生的影响和变革也高度重视。微软首席执行官萨提亚·纳德拉(Satya Nadella)认为，聊天机器人会显著地变革现有的计算方式，因而，微软也在积极地推行“对话即平台” (Conversation as a Platform, CaaP)的概念。

简略地回顾一下人机对话技术发展的一些重要事件，或许可以让人们更好地了解人机对话的发展脉络。1966年麻省理工学院(MIT)约瑟夫·魏泽鲍姆(Joseph Weizenbaum)开发出ELIZA聊天机器人用于在临床治疗中模拟心理医生。1995年A.L.I.C.E(Alicebot)聊天机器人的推出，多次获得欧洲人工智能大奖。2011年IBM研发的深度问答系统Watson在“危险边缘”电视节目中击败了人类冠军选手。2014年，在阿兰·图灵逝世60周年之际，欧洲的知识问答系统Eugene Goostman号称通过了图灵测试，被测试者认为它是一个13岁的犹太小男孩。2014年微软推出了聊天机器人“小冰”，将其定位为人工智能伴侣。2016年微软又推出了英语版小冰Tay（后因故下线）。许多世界著名公司都推出了各式助理类的虚拟机器人。不难看出，人机对话的技术得到了长足发展，应用范围涵盖了心理治疗、情感陪护、闲聊、特定任务完成等各种场景，并快速深入各行各业。

人机对话技术与实体机器人的结合，还催生了广泛的服务机器人市场。结合人机对话技术，服务机器人有了更加广泛的应用场景，例如“情感机器人”和“社交机器人”。其中代表性产品有日本软银公司的Pepper，法国蓝蛙公司的Buddy和美国MIT推出的Jibo。Pepper被定义为“第一款面向个人且具备情感认知能力的机器人”。它能够从语音语调、面部表情中感知用户的情绪，并进行对应的情绪响应与表达。Buddy和Jibo类似，被定义为“社交机器人”，即在“机器人”的基础上，是一个能够与人类沟通和互动的系统。Jibo创始人，MIT副教授辛西娅·布雷齐尔(Cynthia Breazeal)认为，这种机器人具有两个重要维度：使用价值和情感纽带。过分强调使用价值，机器人就会变成工具；只有情感纽带，就变成了玩具。社交机器人则兼具两个维度，具有一定的闲聊对话、任务完成、情感陪护的功能。

无论是虚拟机器人还是实体机器人，情感、情绪的感知和表达是这类机器人走进千家万户的一个重要的先决条件。它不仅需要具备基本的人机对话功能，更重要的是如何感知和理解人类的情感和情绪，并做出符合情境的情感响应。

情感和情绪

人类情感分两种，一种是低级情绪，通常认为就是高兴、喜欢、悲伤、愤怒、恐惧等基本情绪——它们是生物性的，理论上是可以通过程序模拟的。另一种是高级情绪——它们是社会性的、精神性的，比如道德、爱情、自私、利他等。高级情绪是否可以通过程序模拟尚不可知，但如果人工智能拥有完善的低级情绪及学习能力，则有可能自行发展出高级情绪。目前人工智能对于情绪的研究还处在“低级情绪”研究的初级阶段。

情感和情绪的理解是人类最重要的认知行为之一^{[1, 2]}，为了实现具有人类水平的行为和交流能力，机器人必须能够理解人类的认知行为。赋予计算机或机器人类人式的情感，使之具有识别、理解与表达喜怒哀乐的能力，这也是许多科学家的梦想。

情感机器人就是赋予了情感能力的机器人，具有识别、理解和表达情感与情绪的能力。相关的研究表明，通过文字、面部表情、语音等具有情绪感知的人机交互系统能够很大程度提升用户满意度，避免陷入对话僵局，改善双方的对话行为。情感机器人的研究包括两个重要的问题：一是情感的感知与识别，即如何从字面信息、语音语调、表情、肢体语言中感知用户所表达的情感和情绪；二是情感的模拟表达，即如何通过声音、动作等体现出合适的情感响应。对应地，具有类人情感的机器人必须具备两个基本系统：情感计算系统和情感表达系统。

情感计算的概念是在1997年由MIT媒体实验室皮卡德(Picard)教授提出的^[2]。她指出，情感计算是与情感相关，来源于情感或能够对情感施加影响的计算。情感计算的目的是通过赋予计算机识别、理解、表达和适应人的情感的能力来建立和谐人机环境，并使计算机具有更高的、全面的智能。情感机器人需要从用户的表达内容、语音语调、表情动作中分析其所表达的情感和情绪，并根据情境做出合适的响应。

情感表达使得机器人可通过多维度输出情绪，如文字、语音、表情及动作等。特定的情绪表达可以通过内容体现，不同的内容可以表达不同的情感；也可以通过语音语调体现，同一句话可以用不同的语气和语调体现不同的情感表达；还可以通过表情和动作体现，例如面部表情（笑脸、哭脸、皱眉等）和肢体动作等。对于通过文字输入输出的虚拟机器人，内容表达成为最主要的表达方式，“说什么”变得更加重要。

情绪化内容生成

目前已有一些工作开始探索如何让计算机生成具有情感表达的文字内容。Radford等人^[3]在大量的评论数据中训练了字节级别的循环神经网络模型，并发现了可以表达情感的神经元(Sentiment Unit)，手工控制该神经元的响应输出可以得到不同极性的情感表达内容。Hu等人^[4]则在变分自编码器的基础上，提出了混合随机噪声和可控编码的文本生成方法，实现了能控制情感极性、时态的可控文本生成。Ghosh等人^[5]研究了利用神经网络语言模型表达情绪化的内容，在生成过程中不仅考虑已生成内容的上下文，还考虑其所携带的情感信息（利用外部情感资源计算）。

本文探索的是一种基于深度学习的虚拟机器人（即文字输入、文字输出形式）表达情感的方法^[6]。基于深度学习的闲聊对话技术取得了长足的发展，一般采用编码-解码(Encoder-Decoder)的序列学习模型，在大规模闲聊对话语料上训练得到的模型能生成较为自然和流畅的对话。但已有的工作还聚焦在如何提高对话生成质量上^[7~9]，在对话场景下几乎没有人同时考虑内容的相关性和情感表达的合适性。本文探索了当给定一个语句以及指定一个情绪类别时，计算机能否生成一个合适的答复。在未来工作中，我们将探索如何根据用户输入的内容以及当前的情境，预测计算机下一步最适合响应的情绪内容。

引言

人机对话与生俱来的自然性和便捷性，使其作为一种与计算机交流的新型方式，被认为是继鼠标、键盘、触控之后，未来的一大交互范式。随着人工智能的发展，人机对话的重要性越来越凸显。起源于1950年的图灵测试，衡量的是计算机程序智能水平的测试框架，其最初的设计方式就是以人机对话方式开展的。

人机对话也是最具挑战性的人工智能任务之一，得到了学术界的持续关注。工业界对人机对话可能产生的影响和变革也高度重视。微软首席执行官萨提亚·纳德拉(Satya Nadella)认为，聊天机器人会显著地变革现有的计算方式，因而，微软也在积极地推行“对话即平台” (Conversation as a Platform, CaaP)的概念。

简略地回顾一下人机对话技术发展的一些重要事件，或许可以让人们更好地了解人机对话的发展脉络。1966年麻省理工学院(MIT)约瑟夫·魏泽鲍姆(Joseph Weizenbaum)开发出ELIZA聊天机器人用于在临床治疗中模拟心理医生。1995年A.L.I.C.E(Alicebot)聊天机器人的推出，多次获得欧洲人工智能大奖。2011年IBM研发的深度问答系统Watson在“危险边缘”电视节目中击败了人类冠军选手。2014年，在阿兰·图灵逝世60周年之际，欧洲的知识问答系统Eugene Goostman号称通过了图灵测试，被测试者认为它是一个13岁的犹太小男孩。2014年微软推出了聊天机器人“小冰”，将其定位为人工智能伴侣。2016年微软又推出了英语版小冰Tay（后因故下线）。许多世界著名公司都推出了各式助理类的虚拟机器人。不难看出，人机对话的技术得到了长足发展，应用范围涵盖了心理治疗、情感陪护、闲聊、特定任务完成等各种场景，并快速深入各行各业。

人机对话技术与实体机器人的结合，还催生了广泛的服务机器人市场。结合人机对话技术，服务机器人有了更加广泛的应用场景，例如“情感机器人”和“社交机器人”。其中代表性产品有日本软银公司的Pepper，法国蓝蛙公司的Buddy和美国MIT推出的Jibo。Pepper被定义为“第一款面向个人且具备情感认知能力的机器人”。它能够从语音语调、面部表情中感知用户的情绪，并进行对应的情绪响应与表达。Buddy和Jibo类似，被定义为“社交机器人”，即在“机器人”的基础上，是一个能够与人类沟通和互动的系统。Jibo创始人，MIT副教授辛西娅·布雷齐尔(Cynthia Breazeal)认为，这种机器人具有两个重要维度：使用价值和情感纽带。过分强调使用价值，机器人就会变成工具；只有情感纽带，就变成了玩具。社交机器人则兼具两个维度，具有一定的闲聊对话、任务完成、情感陪护的功能。

无论是虚拟机器人还是实体机器人，情感、情绪的感知和表达是这类机器人走进千家万户的一个重要的先决条件。它不仅需要具备基本的人机对话功能，更重要的是如何感知和理解人类的情感和情绪，并做出符合情境的情感响应。

情感和情绪

人类情感分两种，一种是低级情绪，通常认为就是高兴、喜欢、悲伤、愤怒、恐惧等基本情绪——它们是生物性的，理论上是可以通过程序模拟的。另一种是高级情绪——它们是社会性的、精神性的，比如道德、爱情、自私、利他等。高级情绪是否可以通过程序模拟尚不可知，但如果人工智能拥有完善的低级情绪及学习能力，则有可能自行发展出高级情绪。目前人工智能对于情绪的研究还处在“低级情绪”研究的初级阶段。

情感和情绪的理解是人类最重要的认知行为之一^{[1, 2]}，为了实现具有人类水平的行为和交流能力，机器人必须能够理解人类的认知行为。赋予计算机或机器人类人式的情感，使之具有识别、理解与表达喜怒哀乐的能力，这也是许多科学家的梦想。

情感机器人就是赋予了情感能力的机器人，具有识别、理解和表达情感与情绪的能力。相关的研究表明，通过文字、面部表情、语音等具有情绪感知的人机交互系统能够很大程度提升用户满意度，避免陷入对话僵局，改善双方的对话行为。情感机器人的研究包括两个重要的问题：一是情感的感知与识别，即如何从字面信息、语音语调、表情、肢体语言中感知用户所表达的情感和情绪；二是情感的模拟表达，即如何通过声音、动作等体现出合适的情感响应。对应地，具有类人情感的机器人必须具备两个基本系统：情感计算系统和情感表达系统。

情感计算的概念是在1997年由MIT媒体实验室皮卡德(Picard)教授提出的^[2]。她指出，情感计算是与情感相关，来源于情感或能够对情感施加影响的计算。情感计算的目的是通过赋予计算机识别、理解、表达和适应人的情感的能力来建立和谐人机环境，并使计算机具有更高的、全面的智能。情感机器人需要从用户的表达内容、语音语调、表情动作中分析其所表达的情感和情绪，并根据情境做出合适的响应。

情感表达使得机器人可通过多维度输出情绪，如文字、语音、表情及动作等。特定的情绪表达可以通过内容体现，不同的内容可以表达不同的情感；也可以通过语音语调体现，同一句话可以用不同的语气和语调体现不同的情感表达；还可以通过表情和动作体现，例如面部表情（笑脸、哭脸、皱眉等）和肢体动作等。对于通过文字输入输出的虚拟机器人，内容表达成为最主要的表达方式，“说什么”变得更加重要。

情绪化内容生成

目前已有一些工作开始探索如何让计算机生成具有情感表达的文字内容。Radford等人^[3]在大量的评论数据中训练了字节级别的循环神经网络模型，并发现了可以表达情感的神经元(Sentiment Unit)，手工控制该神经元的响应输出可以得到不同极性的情感表达内容。Hu等人^[4]则在变分自编码器的基础上，提出了混合随机噪声和可控编码的文本生成方法，实现了能控制情感极性、时态的可控文本生成。Ghosh等人^[5]研究了利用神经网络语言模型表达情绪化的内容，在生成过程中不仅考虑已生成内容的上下文，还考虑其所携带的情感信息（利用外部情感资源计算）。

本文探索的是一种基于深度学习的虚拟机器人（即文字输入、文字输出形式）表达情感的方法^[6]。基于深度学习的闲聊对话技术取得了长足的发展，一般采用编码-解码(Encoder-Decoder)的序列学习模型，在大规模闲聊对话语料上训练得到的模型能生成较为自然和流畅的对话。但已有的工作还聚焦在如何提高对话生成质量上^[7~9]，在对话场景下几乎没有人同时考虑内容的相关性和情感表达的合适性。本文探索了当给定一个语句以及指定一个情绪类别时，计算机能否生成一个合适的答复。在未来工作中，我们将探索如何根据用户输入的内容以及当前的情境，预测计算机下一步最适合响应的情绪内容。

总体框架

模型框架如图1所示。首先，我们从社交媒体中得到几百万条互动数据，每条数据包含一个发帖(Post)和回复(Response)，这些数据将作为我们的训练数据。之后，我们采用预先训练好的情绪分类器对每条数据的发帖和回复进行情绪类别的自动标注，每个发帖和回复都会被标记为“快乐、喜欢、悲伤、厌恶、愤怒、其他”中的一类。情绪分类器采用的是双向长短期记忆(LSTM)模型，即每条文本内容用一个双向LSTM模型表示为向量，然后在Softmax层进行分类。训练数据来自NLPCC 2013、2014评测的情绪分类数据集，分类准确度(accuracy)可以达到62%。最后，这些被标记好类别的数据，会送入情绪聊天机器(ECM)的情绪表达模块，以便生成指定情绪类别的回复内容。

图1 情绪化内容生成的总体框架

值得注意的是，情绪分类器的性能还比较低，被自动标注情绪类别的数据是带有噪声的，但对于我们后续训练情绪生成模块来说已经够用了，基于这样的数据，我们的模型能够得到有意义的情绪表达内容。

情绪表达

情绪表达模块是基于深度学习的序列到序列生成算法，即Encoder-Decoder的编解码结构。这一模型的编码器部分将输入信息X（如“我今天好惨，考试没及格”）用神经网络模型（通常有门控循环网络GRU、长短期记忆模型LSTM）编码为一个固定长度的向量。在解码器部分，采用注意力机制逐步解码生成一个个单词，当前解码生成的单词由输入编码、之前的解码内容共同决定。其本质是对概率公式
P(y_t | X, y_t-1y_t-2…y₁)=softmax(W*S_t)建模，其中每个y表示一个词，softmax是一个指数函数形式的概率规格化函数，这个概率可以由解码器神经网络的输出状态St决定。

为了生成内容相关、情感表达合适的回复内容，我们尝试了三种策略：情绪类别嵌入、情感表达的内部状态、情感表达的外部记忆。模型表达的总体框架如图2所示。

图2 情绪表达模块的模型结构图（h：编码之后的向量；c：注意力机制产生的上下文向量；s：解码器的状态变量；o：输出的概率分布，依据此概率进行解码）

1.情绪类别嵌入(Emotion Embedding)：我们把每个情绪类别表示为一个向量（模型参数的一部分，需要学习得到），然后把指定要生成的情绪类别作为一个额外信息输入到解码器神经网络GRU中。

2.情感表达的内部状态(Internal Memory)：我们认为每个待生成的情绪类别对应一个情绪内部状态向量，随着解码器每次解码出来一个词，这个向量会衰减一部分信息，解码完成时该向量衰减到零，认为其对应的情感信息得到了完全表达。在实现上，我们采用了记忆网络中的读、写操作。每次解码前，利用读取门(Read Gate)从该向量中读取一部分信息；解码后，利用写入门(Write Gate)对该状态向量进行更新。同样的，每次读取的信息作为一个额外信息输入到解码器神经网络GRU中。

3.情感表达的外部记忆(External Memory)：为了区分解码过程中的一般词汇(如天气、你、我等)和情感表达强烈的词汇(如高兴、悲伤、惨等)，我们引入一个外部记忆单元区分。在解码过程中，通过控制输出词表上的概率分布来引导当前解码器选择合适的词语表达情感。

通过以上三种策略，机器可以生成内容相关、情感表达合适的回复内容。表1展示了我们的模型生成的一些结果。量化评估的结果表明我们的模型比传统的Seq2Seq模型以及其他的一些配置更好。

表1 情绪化内容生成示例

情感交互模式分析

在人类对话行为中，大多数的情感交互模式为共情模式。我们通过对数据中的情感交互模式进行分析和统计，也发现了这个现象（见图3）。一个情感交互模式定义为二元组<Epost, Eresponse>，其中Epost和Eresponse分别表示发帖和回复的情绪类别。共情，即当发帖表达某种情感时，回应也表达同样的情感。这些例子包括<快乐, 快乐>，<喜欢, 喜欢>，<悲伤, 悲伤>等。换言之，当一方表达情绪A时，另一方表达情绪A的概率要显著高于表达其他情绪的概率。例外的情况也有，例如<悲伤，喜欢>，这通常是因为当一方表达悲伤情绪时，另一方往往表达安慰，也符合情感交互的常理。

图3 情感交互模式分析。颜色深浅表示这种模式的出现次数，越深表示出现次数越多

上述情感交互模式分析并没有考虑发帖的内容。实际上，我们发现情感响应与发帖的具体内容密切相关。例如，当发帖的内容是时事政治类话题时，情绪响应多为厌恶、愤怒；而当话题为一般的情感、心情表述时，情绪响应多为快乐、喜欢、悲伤。但仅仅依据发帖的内容，有时候很难判断出合适的情绪响应，因为情绪响应往往还取决于用户当时的背景信息、情境以及其他更多的上下文。

总结与展望

本文探索了一种基于深度学习模型、面向文字的情绪表达方法，表明计算机可以具有表达初步情绪的能力。通过大量的对话语料训练模型，计算机可以生成表达不同情绪类别的内容。为了实现类人水平的人机对话技术，机器人的情感感知与表达能力是一个必然的要求，而这正是对话机器人能够获得更加广泛应用的重要前提，使之可以在情感陪护、心理咨询等更复杂的任务中得到应用。在情绪感知上，机器人要能够从多模态信息，如文字、语音语调和表情等识别与理解人类所表达的情感与情绪；在情感表达上，机器人要能够通过文字、语音、表情、动作等输出多模态的情感情绪信息。这需要自然语言理解、语音识别与合成、视觉信息处理、机器人规划执行等多种技术的综合运用。

但是，目前计算机还只能处理单一低级情绪。在相对复杂的动态环境中，人类的情绪是动态变化的，而且是复杂多样的。计算机要发展到能够维护、发展自我情绪，尤其是进化到道德、精神层面的高级情感，还有相当遥远的路程。无论是低级情绪还是高级情感，都是影响人类决策与行为的重要因素，对其进行深入探索意义深远。         ■

参考文献

[1]       Salovey P, Mayer J D. Emotional intelligence[J].Imagination Cognition and Personality, 1990,9(3):185–211.

[2]       Picard R W, Picard R. Affective computing[M]. Cambridge: MIT press, 1997.

[3]       Radford A, Jozefowicz R, Sutskever I. Learning to generate reviews and discovering sentiment[OL].(2017).arXiv preprint arXiv:1704.01444.

[4]       Hu Z, Yang Z, Liang X, et al. Controllable Text Generation[OL].(2017). arXiv preprint arXiv:1703.00955.

[5]       Ghosh S, Chollet M, Laksana E, et al. Affect-LM: A Neural Language Model for Customizable Affective Text Generation[OL]. (2017). arXiv preprint arXiv:1704.06851.

[6]       Zhou H, Huang M, Zhang T, et al. Emotional Chatting Machine: Emotional Conversation Generation with Internal and External Memory[OL]. (2017). arXiv preprint arXiv:1704.01074.

[7]       Serban I V, Sordoni A, Bengio Y, et al. Hierarchical neural network generative models for movie dialogues[OL].(2015). arXiv preprint arXiv:1507. 04808.

[8]       Shang L, Lu Z, Li H. Neural responding machine for short-text conversation[C]//Proceedings of the 53^rd Annual Meeting of the Association for Computational Linguistics and the 7^th International Joint Conference on Natural Language Processing(Volume 1: Long Papers)2015:1577-1586.

[9]       Li J, Galley M, Brockett C, et al. A diversity-promoting objective function for neural conversation models[C]//Proceedings of the 2016 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. ACL Press, 2016:110-119.